Những năm tiếp theo, do sự tấn công mãnh liệt từ quân Hán và các nước khác, Hung Nô bước vào giai đoạn suy yếu. Đến năm 53 TCN, thiền vu Hô Hàn Tà phải dâng biểu xin triều phục và cống nộp cho nhà Hán, gửi con trai sang làm con tin. Địa vị chính trị của Hung Nô trong trật tự thế giới của người Hán đã bị hạ từ "quốc gia anh em" xuống thành "ngoại thần".

Bước sang thời nhà Tân, dưới sự cai trị của Vương Mãng, thế lực của Hung Nô tiếp tục đi xuống và bị Trung Quốc khinh rẻ. Từ năm 10 đến 11, Vương Mãng đưa 300000 quân đến biên giới phía bắc, từng bước đẩy lui Hung Nô về sa mạc. Tuy nhiên hòa bình được thiết lập lại khi nhà Hán tái thành lập bởi Hán Quang Vũ Đế. Quang Vũ đế không sử dụng chiến tranh mà dùng chính sách xoa dịu đối với Hung Nô. Từ đó, Hung Nô từng bước phụ thuộc vào nhà Hán. Cùng thời gian đó, một lượng lớn người Hán đã bị ép buộc phải di cư tới các quận này, tại đây các khu định cư hỗn tạp bắt đầu xuất hiện. Đến năm 48, do tranh chấp nội bộ, đất nước Hung Nô bị chia làm hai là Bắc và Nam Hung Nô.

Năm 89 đến 91, đại tướng quân Đậu Hiến đem quân tiến lên phía bắc, diệt Nam Hung Nô, buộc người Hung Nô phải lui về phía tây, sau đó lại đem quân tiến lên đánh Bắc Hung Nô và đẩy lui quân Bắc Hung Nô. 81 bộ tộc Hung Nô đầu hàng nhà Hán. Từ thời điểm này, người Hung Nô bị đẩy ra xa Trung Nguyên và tiếp tục phân hóa, tan rã.